Trong những năm cuối đời, Gandhi vướng mắc vào nhiều khó khăn liên quan đến tiểu bang Punjab khi nơi này ủng hộ mạnh mẽ đảng phái của người Sikh. Một thủ lĩnh tôn giáo địa phương, Jarnail Singh Bhindranwale được chi bộ đảng Quốc Đại hậu thuẫn và xem ông là một sự thay thế cho đảng Akali Dal, nhưng Bhindranwale bị chỉ trích kịch liệt như một kẻ cực đoan và chủ trương ly khai khi các hoạt động của người này trở nên bạo động. Tháng 9 năm 1981, Bhindranwale bị bắt giữ tại Amritsar, nhưng được trả tự do 25 ngày sau đó vì thiếu chứng cứ. Bhindranwale rút về căn cứ địa ở Mehta Chowk với Guru Nanak Niwas bên trong khu vực biệt lập của Đền Vàng (Harmandir Sahib - ngôi đền linh thiêng nhất của người theo đạo Sikh).

Bối rối vì sự bành trướng sức mạnh quân sự của nhóm Bhindrawale, ngày 3 tháng 6 năm 1984, Gandhi cho phép quân đội tấn công Đền Vàng để trục xuất Bhindranwale và đồng bọn. Hậu quả là Bhindranwale bị giết, ngôi đền bị tàn phá nặng nề, nhiều di tích tôn giáo bị hư hại. Biến cố này gây nên sự phẫn nộ đối với nhiều người Sikh vì điều họ xem là một sự xúc phạm đối với nơi thờ phụng thiêng liêng nhất của họ. Kể từ đó, người theo đạo Sikh ở Ấn Độ coi bà Indira Gandhi phải chịu trách nhiệm cho thảm kịch đẫm máu trên.

Sau vụ việc, các cố vấn của bà Indira đề nghị nữ thủ tướng loại bỏ hết các thành viên đội cận vệ, vệ sĩ có nguồn gốc là người Sikh vì lý do an ninh. Bà Indira đã khước từ lời đề nghị này vì nhiều người thân cận đã theo bà hàng chục năm kể từ khi lên nắm quyền.

Các cố vấn đề nghị bà mặc áo chống đạn mỗi khi ra ngoài, ngồi trên xe chống đạn và có đội ngũ bác sĩ, y tế luôn túc trực 24/24.

Bà Indira miễn cưỡng mặc áo chống đạn nhưng nhiều lần tự cởi ra vì lý do không thoải mái. Đội ngũ y tế cũng phải tránh xa tầm mắt bà.

Ngày 31 tháng 10 năm 1984, hai người Sikh[1] thuộc toán cận vệ của Gandhi, Satwant Singh và Beant Singh, ám sát bà ngay trong khu vườn của Tư dinh Thủ tướng tại số 1 đường Safdarjung ở New Dehli. Lúc ấy, Gandhi đang dạo bước nói chuyện với diễn viên người Anh Peter Ustinov trong một cuộc phỏng vấn như là một phần của bộ phim tư liệu thực hiện cho truyền hình Ireland. Khi bước qua chiếc cổng nhỏ, bà cúi chào theo phong tục Ấn, Satwant và Beant đang đứng gác, hai người liền nổ súng. Gandhi từ trần khi đang trên đường đến bệnh viện.

Indira Gandhi được hỏa táng ngày 3 tháng 11, tại Shakti Sthal, gần Raj Ghat (nơi hỏa táng Mahatma Gandhi).

"Nếu tôi chết ngày hôm nay, từng giọt máu của tôi sẽ tiếp thêm sinh lực cho quốc gia và dân tộc Ấn Độ vĩ đại", đó là câu nói cuối cùng trước công chúng của bà Indira, một ngày trước khi bà bị ám sát.

Sau cái chết của Gandhi, những cuộc bạo động chống người Sikh bùng nổ khắp New Delhi khiến hàng ngàn người thiệt mạng và nhiều người khác mất nhà cửa.

Trong suốt cuộc đời mình, Indira Gandhi không chỉ thay đổi đất nước Ấn Độ mà còn làm thay đổi quốc gia Pakistan kế cận.